Forscher warnen die Öffentlichkeit: „Cyberkriminelle können die Heizung Ihres Hauses einschalten, unbemerkt Videos aufnehmen und sogar Ihre Fenster öffnen.“

Eine Einladung genügt Cyberkriminellen , um die Kontrolle über Gemini zu übernehmen und angeschlossene Geräte in einem Heimnetzwerk zu manipulieren. Dieser Angriffstyp wird als „Promptware“ bezeichnet. Promptware nutzt die Integration großer Sprachmodelle (LLMs) in Anwendungen, um bösartige Eingabeaufforderungen einzuführen , die die KI-Assistenten, die sie integrieren, gefährden können.

Das Risiko für die Nutzer ist real, wie drei Forscher der Universität Tel Aviv (Israel), Ben Nassi, Stav Cohen und Or Yair, zeigten. In ihrer Arbeit nutzten sie Promptware-Angriffe auf den Google-Assistenten Gemini, um Zugriff auf dessen Workspace-Architektur zu erhalten und Smart-Home-Geräte zu manipulieren oder Informationen aus E-Mails zu extrahieren.

Die von ihnen verwendete Promptware-Variante ermöglicht das Einfügen bösartiger Eingabeaufforderungen in Gemini über E-Mails, Kalendereinladungen oder freigegebene Dokumente. Beispielsweise senden Cyberkriminelle einem Opfer eine Einladung an sein Gmail- oder Kalenderkonto . Wenn das Opfer von Gemini Informationen zu dieser E-Mail anfordert, wird die bösartige Eingabeaufforderung aktiviert und gefährdet den Assistenten.

Dies ermöglicht die Manipulation der Dienste und Geräte, die das Opfer mit Gemini nutzt, und erleichtert beispielsweise die Steuerung des Thermostats, der Beleuchtung im Haus oder den Zugriff auf E-Mails.

Damit können Cyberkriminelle das Licht ausschalten, die Heizung einschalten, ohne dass das Opfer davon etwas weiß, Videos streamen , Kalenderereignisse löschen, Daten aus E-Mails extrahieren, den Geolokalisierungsort des Opfers bestimmen und sogar ein Fenster öffnen.

Diese Art von Angriff betrifft Gemini sowohl in den mobilen und Web-Apps als auch im Google Assistant. Laut den Forschern stellen 73 Prozent der von ihnen analysierten Bedrohungen ein hochkritisches Risiko dar. Wie sie berichten, wurde Google bereits im Februar über diese Bedrohung informiert. In dieser Zeit implementierte das Technologieunternehmen „mehrschichtige Abwehrmaßnahmen“, um die identifizierten Sicherheitsprobleme zu beheben.